Anthropic co-founder: AGI predictions, leaving OpenAI, what keeps him up at night | Ben Mannslug
type
status
date
summary
tags
category
icon
password
观看链接
Anthropic co-founder: AGI predictions, leaving OpenAI, what keeps him up at night | Ben Mann
内容提炼
1.
2028年或许AGI就会出现
在Meta,我们的目标是赚钱,而我在Anthropic的最佳愿景是我们能够影响人类的未来 at Meta is that we make money and my best case at Anthropic is we affect the future of humanity and Subscribe
2.
他不想提AGI，而是改用transformative AI，来看看它是否会真的引起社会变革
3.
4.
我想到的是拥抱AI，然年去思考在AI时代什么是重要的，自己应该在这个全新的时代下扮演一个什么样的角色。
metrics
宪法式AI constitutional AI principle
alignment 对齐很重要
A/B test
去看看为什么2028年AGI可能出现
如果基于模型实证的能力，那么它们将不在会有天花板
因为我们现实世界也是一个通过经验主义来推动的，我们先假设一个理论，然后我们依靠设计实验来进行实证，如果我们也给AI这种实证能力，那么按理来说，AI的能力没有天花板。
anthropic的一个重大的想法是能够完全使用到你的电脑的所有凭证，也就是说可以完全控制你的电脑，这需要一个相当大的信任值，所以他们很在意安全
combo
重要的是价值观
great manager
从这段对话可以看出Ben Mann和Hinton在一些观点上是不谋而合的。
我能有一个强烈的感知就是他们都认为软件工程师不会是一个长期存在的职业，Ben认为未来（但实际可能不会很长）人们可以通过与终端交互来完成软件工程师所需要做的所有工作。
而Hinton教授在演讲的时候，我也发现，他认为写program来实现逻辑和神经网络前后馈这是两条不同的路径，写程序来完成任务是通过我们使用相同的逻辑来写出我们的思路，然后他们可以在不同的设备上正确运行来完成，但是神经网络是通过生物的方式，我们通过学习
- Author:盛溪
- URL:https://tangly1024.com/article/Anthropic%20co-founder%3A%20AGI%20predictions%2C%20leaving%20OpenAI%2C%20what%20keeps%20him%20up%20at%20night%20%7C%20Ben%20Mann
- Copyright:All articles in this blog, except for special statements, adopt BY-NC-SA agreement. Please indicate the source!
Relate Posts
.jpg?table=block&id=26f7c1d5-a1e9-80d7-a52b-e71bb7079501&t=26f7c1d5-a1e9-80d7-a52b-e71bb7079501)
